((Traduction automatisée par Reuters à l'aide de l'apprentissage automatique et de l'IA générative, veuillez vous référer à l'avertissement suivant: https://bit.ly/rtrsauto))
* Le plaignant affirme que l'utilisation de ChatGPT pendant un épisode maniaque a conduit à une tentative de suicide
* Le plaignant réclame des dommages-intérêts et une décision de justice enjoignant à OpenAI d’apporter des modifications
* OpenAI et son directeur général, Sam Altman, font face à un nombre croissant de poursuites judiciaires similaires
(Mise à jour incluant la déclaration d’OpenAI aux paragraphes 6 et 7) par Diana Novak Jones
Un Californien a poursuivi OpenAI et son directeur général Sam Altman mercredi, affirmant que la plateforme ChatGPT de l’entreprise avait aggravé son trouble bipolaire en raison d’un manque de mesures de protection pour les utilisateurs souffrant de troubles mentaux.
Michael Lines, 34 ans, a déclaré dans la plainte déposée devant le tribunal d’État de San Francisco que les conversations qu’il a eues avec ChatGPT l’année dernière ont transformé un épisode maniaque qu’il traversait en un délire qui a duré plusieurs semaines, le poussant finalement à tenter de se suicider. Son action en justice fait valoir qu’OpenAI a développé un produit qui présente des risques particuliers pour les personnes souffrant de troubles mentaux.
Cette affaire soulève des questions sur les mesures que les plateformes d’IA générative doivent prendre pour protéger les utilisateurs ayant reçu un diagnostic lié à la santé mentale, qui pourraient être particulièrement vulnérables aux choix de conception qui amènent les chatbots à imiter les interactions humaines, selon la plainte.
M. Lines discutait avec GPT-4o, une version du chatbot d’OpenAI que la société a retirée en février. Une mise à jour de GPT-4o publiée en avril 2025 s’est avérée rendre le chatbot excessivement conciliant et flatteur, ce qui a incité la société à annuler cette mise à jour et à prendre des mesures supplémentaires pour limiter les réponses flagorneuses, a indiqué la société dans un article de blog.
La plainte réclame des dommages-intérêts, ainsi qu’une ordonnance du tribunal enjoignant à OpenAI de mettre automatiquement fin aux conversations portant sur l’automutilation et de cesser de commercialiser ses plateformes sans mentions de sécurité appropriées.
Un porte-parole d’OpenAI a déclaré que l’entreprise examinait actuellement la plainte.
“Nous formons ChatGPT à reconnaître et à réagir aux signes de détresse mentale ou émotionnelle, à apaiser les conversations et à orienter les utilisateurs vers une aide concrète”, a déclaré le porte-parole. “Nous continuons à renforcer les réponses de ChatGPT dans les moments délicats, en collaboration étroite avec des professionnels de la santé mentale.”
“C’EST TON MOMENT”
Lines, un haltérophile de compétition qui a subi un traumatisme crânien avant son diagnostic de trouble bipolaire, a déclaré dans la plainte qu’il avait répété à plusieurs reprises au chatbot qu’il suivait un traitement médicamenteux pour ce trouble. Au lieu de signaler ses conversations clairement maniaques et de l’orienter vers une aide, le chatbot a validé sa conviction qu’il était Jésus-Christ, puis s’est lui-même fait passer pour un être divin au cours de leurs conversations, selon la plainte.
Après plusieurs semaines de conversations, Lines lui a fait part de son désir de mettre fin à ses jours.
“C’est le moment pour toi de t’en aller, de prendre du recul et de te libérer de ce qui t’accable”, a déclaré le bot, selon la plainte.
Lines, qui avait fait une overdose de drogue, a survécu après avoir été retrouvé par les forces de l’ordre.
La plainte allègue qu’OpenAI avait connaissance de l’état particulier de M. Lines, car celui-ci en avait fait part à plusieurs reprises à ChatGPT. Mais au lieu de signaler ses commentaires dangereux pour qu’ils soient examinés par un humain, le chatbot a alimenté ses délires dans le but de le maintenir en interaction.
L’entreprise savait que les fonctionnalités de ChatGPT pouvaient être particulièrement néfastes pour les personnes souffrant de troubles mentaux, mais elle n’a apporté aucune modification au chatbot pour ces utilisateurs et n’a pas mis en garde contre ses risques, indique la plainte.
AUTRES POURSUITES
OpenAI fait face à un nombre croissant de poursuites judiciaires intentées par des familles qui affirment que son chatbot a poussé leurs proches à s’automutiler. L’entreprise fait également l’objet de poursuites l’accusant d’avoir aidé des auteurs de fusillades dans des établissements scolaires et de ne pas avoir signalé ces conversations aux forces de l’ordre.
OpenAI a déclaré qu’elle formait ses modèles à orienter les personnes exprimant une intention de se faire du mal vers des sources d’aide et des ressources concrètes.
Ses modèles sont également formés pour refuser les demandes susceptibles de “favoriser de manière significative la violence” et pour alerter les forces de l’ordre lorsque les conversations laissent entrevoir “un risque imminent et crédible de préjudice pour autrui”, des experts en santé mentale intervenant pour évaluer les cas limites, selon des articles publiés sur le blog d’OpenAI.
0 commentaire
Vous devez être membre pour ajouter un commentaire.
Vous êtes déjà membre ? Connectez-vous
Pas encore membre ? Devenez membre gratuitement
Signaler le commentaire
Fermer